OneTrans-GSR：单自回归 Transformer 统一重排/混排的生成式 Slate 排序范式
🧭 生成式推荐 · Slate 排序统一重排与混排 ★ 深度解读
ByteDance
单自回归 Transformer 统一重排/混排直接生成 slate，线上 GMV/u +2.63%、广告价值 +2.06%、复购 +2.03%，延迟降 13%
📌 工作参考价值（4 点）
- 架构上，用离线 reward model + 线上直接生成替代在线 Generator-Evaluator：线上只跑 decoder，多个候选按 sequence log-prob 选最优，RM 不参与 serving，换来 13% 延迟下降；在重排/混排链路中值得复用。
- 多目标融合上，不同 reward 目标先 min-max 归一化再几何平均，RM reward 与业务规则满意度 reward 分开标准化后组合，避免量纲差异导致单一目标主导；RM ensemble 加 disagreement penalty 防 reward overfitting。
- 约束注入上，硬约束放在 decoding 的 masks/logit adjustments（tag-frequency 窗口、相似度惩罚、广告 boost），软偏好作为额外 RL reward 而不是后处理规则，能保留生成模型的端到端优化空间。
- 工程细节上，candidate 在 prefill 中互相 attend 比 output-only/cross-attention 更优；输出侧 stop-gradient 防止候选 embedding collapse；共享 prefill KV cache 提升吞吐，可直接迁移到生成式候选生成/LLM 排序。
视频生成背后：Kling 多模态理解的观察与洞察
🧭 多模态理解 · 视频生成可控性
从数据-条件-对齐-评估链剖析多模态理解如何提升可控视频生成质量
📌 工作参考价值（4 点）
- Captioning 作为语义契约：在电商多模态内容（商品图/短视频）理解中，可借鉴「描述密度最大化」思路，把 caption 从简单标签升级为细粒度语义描述，提升后续生成/匹配的上限。
- Prompt enhancement 的 RL 在环设计：将用户 query 翻译到高质量描述分布，用文本级 RL 和生成器在环 RL 迭代优化，可直接迁移到推荐系统的 query 改写、广告文案生成，避免只靠 LLM 静态改写。
- 候选从文本单独筛选：训练多模态生成模型前先用文本特征筛选候选，节省端到端训练成本；在商品短视频生成或创意素材筛选中，可先用文本描述打分快速过滤低质候选。
- 奖励模型解耦通用与决策：通用 reward model 做可解释局部批评，决策 reward model 做快速多维评分，可作为电商内容审核、素材优选的双层打分架构参考。
LeanPRM：基于 Lean 的自然语言证明过程监督
🧭 过程监督 · Lean 自动标注
University of Texas at Austin · University of California, Los Angeles · New York University
利用 Lean 形式化证明自动生成自然语言证明的逐步正确性标签，训练过程监督验证器，步级准确率从 48.2 提升至 74.7
📌 工作参考价值（4 点）
- 对 Agent/多步决策轨迹，可借鉴「可执行环境自动打标签」：用沙盒、规则引擎或领域知识库对中间步骤做形式化校验，替代人工标注，低成本构建过程监督数据。
- 「分离形式错误与语义错误」的过滤模型思路值得迁移：先自动生成大量轨迹标签，再训练一个二分类器剔除仅因语法/格式失败但推理正确的负样本，避免污染奖励模型。
- 训练过程奖励模型时，可以混合少量人工标注与大量自动标注；本工作证明在没有人类标注的情况下，自动标签也能显著优于 PRM800K 人工标注，适合快速迭代线上推理链路。
- 对于电商推荐理由生成、搜索 query 改写等有可执行校验（如转化、点击、库存）的场景，可尝试用业务指标为中间步骤提供弱监督，再微调 LLM 做步骤级打分。
潜在空间判定：语义保持压缩实现高效生成式奖励模型
🧭 生成式奖励模型 · 潜在推理压缩
Soochow University · University of Cambridge · Chalmers University of Technology · Peking University · Tsinghua University
LatentGRM 用语义分块与压缩替代逐 token 评估，在保持判断质量下将推理耗时降低 6-7 倍
📌 工作参考价值（4 点）
- 在电商/广告场景中用 LLM-as-a-judge 做数据筛选、候选评分或 A/B 评测时，可借鉴 LatentGRM 的思路：对多准则评价过程做语义分块与压缩，不逐 token 展开文本，而用连续潜在轨迹完成判断，能显著降低推理成本。
- 其 rubric-guided 压缩方式可迁移到「相关性+广告质量+商品匹配」等多维度评估 prompt：按准则边界压缩关键语义段，保留任务相关的偏好信息，避免生成冗长解释。
- vote@k 场景下节省明显：LatentGRM-8B 在 vote@5 时总推理时间降低 6.1-7.0 倍，适合批量生成候选排序信号时的成本控制。
- 独立解释器从潜在轨迹重建评估文本，提供离线可审计性：生产环境若需追溯 LLM 判断依据，可在不增加在线成本的前提下抽样重建解释。
RewardVerse：细则引导的视频奖励模型策略优化
🧭 视频生成奖励建模 · Rubric 引导优化
New Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy of Sciences · School of Artificial Intelligence, University of Chinese Academy of Sciences · The Hong Kong University of Science and Technology · Tencent
提出动态 rubric 中间表示与两阶段 RGPO 训练，缓解视频奖励模型标量漂移，点/对偶评估达 SOTA
📌 工作参考价值（4 点）
- 若在搜索/推荐里用 LLM-as-judge 或 reward model 评估生成内容（广告文案、标题、推荐理由、短视频素材），不要把质量直接映射成单 scalar；先生成针对 query/商品类目的动态 rubric，再基于 rubric 打分，可缓解不同 prompt/类目间的分数漂移，使 RL/排序信号更稳定。
- RGPO 两阶段训练可迁移：先用一批人工/规则 seed rubrics warm up scorer 对齐人类评分，再联合微调 rubric generator 生成 query-adaptive criteria，避免直接联合训练导致 rubric 崩坏或打分不稳定。
- Self-evolving seed rubrics 类似于软知识蒸馏/增强：可让 rubric generator 在少标注下扩展评价准则；在电商类目多、标注贵场景可以用 seed rubric + 自演化减少人工规则成本。
- 该框架给奖励判断带来可解释中间表示，便于审核、错误归因和人工校准；上线 reward model 前可把它作为诊断 scalar drift 的工具。
面向相机条件世界模型的奖励建模方法 WorldReward
🧭 多模态奖励建模 · VLM 视频评估
Fudan University · Tencent Hunyuan · Shanghai Innovation Institute · Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory
用 VLM 将长视频按动作分块并投票聚合，统一评测动作一致性与视觉质量
📌 工作参考价值（4 点）
- 长序列生成（如多步商品推荐、对话式导购、视频广告脚本）中，可借鉴“动作对齐分块 + 结构化证据 + 逐块决策投票”的思路，避免长上下文稀释局部关键信号，适合构建 LLM 评估器或奖励模型。
- 偏好数据构建可复用其管线：先由 frontier VLM 生成结构化判断，再用工具化 agent 审计和定向人工复核，降低标注成本并提高一致性，适用于内容生成质量评估、AIGC 审核等场景。
- 在电商多模态生成（如商品视频、虚拟试穿）中，建议拆分“任务完成度”与“画质/自然度”双 reward 分别聚合，避免单一指标失衡，便于 RL 后训练。
- 若业务涉及“按指令生成视频/图片”，可参考其 benchmark 设计：按人类偏好分维度（动作/外观/运动）测量 reward model 一致性，而非只看整体分数，从而更精准定位模型短板。
可靠偏好学习：错误增强的情感偏好优化与校准融合
🧭 多模态情感偏好优化与裁判校准
The Hong Kong Polytechnic University · Brno University of Technology · Tsinghua University · National Taiwan University · Kyoto University
通过错误增强负样本与多裁判边缘校准融合，提升多模态情感偏好判断的鲁棒性
📌 工作参考价值（4 点）
- 负样本构造策略可迁移：在训练推荐/广告文案生成或排序模型时，不只是随机采样负样本，而是从正样本出发生成多类受控负样本（如语义流畅但违背用户真实意图的商品描述、评论），显著提升模型对困难负样本的区分度。
- 多裁判融合的校准思路：当用多个 LLM 作为标注器/打分器（如商品质量评估、广告文案评分）时，不同模型输出打分分布差异大，先做 margin calibration（映射到统一尺度）再融合，比直接平均更稳定，可减少单一模型偏差。
- 偏好优化数据增强：用错误增强方式扩充偏好对，能缓解稀疏监督问题，在电商 UGC 情感分析、客服对话语气判断等场景可以低成本生成更多高质量训练对。
- 工程上可复用 soft fusion 思想：对于多个异构模型的预测结果，不采用 hard voting 或简单平均，而是保留偏好 margin 并做校准后加权，适合集成多个微调裁判模型，提升线上评估一致性。
FIRM-Video：先检查再评分实现可靠文本到视频奖励建模
🧭 文本到视频奖励模型 · 评估基准
Shanghai Jiao Tong University · Tencent Youtu Lab · Tongji University
提出 check-before-score 清单驱动框架，构建 90K 训练数据和基准，8B 奖励模型在 VBench 上 Best-of-8 采样达最优
📌 工作参考价值（4 点）
- 在电商视频/广告创意评估中，可将整体评分拆为「指令遵循、世界一致性、感知质量」等维度，并为每个维度构建 checklist；先逐项验证视频证据再聚合分数，避免 LLM 整体打分时的漏检和归因混淆。
- 对商品视频生成或文案+视频的联合评估，可借鉴「prompt 分解为加权原子要求」：把用户/运营指令转化为可独立验证的细粒度要求（如颜色、质地、动作、文字），每项单独打分后加权求和，提升判断的稳定性和可解释性。
- 感知质量维度采用通用视觉缺陷分类（如模糊、闪烁、压缩伪影等），可作为广告素材机审/质量分系统的先验检查表，结合 LLM 做可解释的缺陷定位。
- 将 checklist 验证结果转化为自然语言分析再训练端到端 reward model 的做法，可复用于构建创意内容优选模型：先用结构化检查生成监督信号，再蒸馏到小模型，用于线上 Best-of-N 采样或创意排序。
VA-Judger：面向联合视频音频生成的人类偏好反馈奖励建模
🧭 多模态生成奖励建模 · 视频音频对齐
Fudan University · Shanghai Innovation Institution · Yinwang Intelligent Technology Co., Ltd
构建10K人类偏好数据集与评测基准，提出链式思考全模态奖励模型VA-Judger，通过分维度强化学习对齐人类偏好
📌 工作参考价值（4 点）
- 多模态生成评估中，单一标量奖励容易被 hack，可将评分分解为 prompt match、audio-visual consistency、audio quality、video quality、completeness 等维度，分别评分加总，使奖励更密集、可解释，也便于定位生成缺陷；类似电商广告视频生成可定义画面-文案一致性、卖点覆盖、音画同步等维度。
- 构建小规模人类偏好对比数据时，先让模型在明显差距样本上学习结构化输出，再用拒绝采样对难分样本蒸馏解释，降低人工标注成本；可用于业务中快速训练创意评估模型。
- 奖励模型后训练可采用 dimension-wise RL，把二元偏好分解到各维度，提供更密集训练信号，比只优化全局偏好更稳定；在广告创意 A/B 测试中可对应分维度打分作为辅助 reward shaping。
- CoT 让奖励模型输出各维分数和推理过程，便于线上审计和错误分析，但会增加推理延迟，业务中可在离线评估或数据标注环节使用，在线打分可只取结构化分数。
HumanTracker：迈向全面且与人类对齐的运动跟踪基准
🧭 人形运动跟踪基准与偏好对齐评估
Nankai University · Tsinghua University · Galbot · Shanghai Jiao Tong University · Peking University
构建153小时运动跟踪基准与偏好对齐的HumanScore指标，更符合人类感知并揭示接触/稳定性故障
📌 工作参考价值（4 点）
- 离线评估别再只看 log-likelihood：用成对偏好数据训练 reward model 作为生成式推荐/搜索改写/文案生成的自动评估指标，尤其要加入业务约束违规信号（相关性、时效、价格带等）。
- 构建诊断型 benchmark 时按场景/意图分层（类似论文四个 motion families），例如按导购、比价、冲动消费分层统计，便于定位 Agent 决策在哪些场景崩。
- 使用时序 Transformer 对整段 session/轨迹打分，而不是逐 item 独立打分：在会话推荐或 Agent 多步工具调用评估里，直接输出 session 级 reward，可捕捉上下文一致性和长期目标达成。
- 物理/业务约束显式建模：在生成式选品或文案生成后增加 constraint checker（如库存、毛利、合规），与 reward model 联合过滤，避免只看 soft metric。
GenRec：Netflix 基于 LLM 的推荐排序器
🧭 LLM推荐排序 · 上下文工程 ★ 深度解读
Netflix · Amazon
用 LLM 背骨替代手工特征工程，借明文上下文和奖励加权训练实现可竞争的业务排序效果
📌 工作参考价值（4 点）
- 上下文工程替代特征工程：将用户行为、物品元数据、场景口头化为自然语言提示，通过选择性保留高价值行为、压缩重复活动、剔除低信号事件来控制 token 预算。在电商/广告领域，可借鉴此方法设计 Prompt 长度和内容，平衡高质量排序与推理成本。
- 两阶段训练框架：第一阶段用领域数据继续预训练，构建具备用户与内容理解的基础 LLM；第二阶段用推荐专属数据及奖励信号进行轻量后训练。业务中可复用：先用业务语料做增量预训练，再利用少量带奖赏权重的标注数据微调，降低频繁迭代的成本。
- 奖励加权损失对齐长期价值：将长期满意度代理、内容类型平衡等业务目标转化为标量权重，直接缩放排名损失。相比 RL 方案更简单稳定，电商/广告可直接用类似方式引导模型关注 LTV、品类公平等长期指标。
- 预填充推断 + 目录感知打分头：在 decoder-only LLM 之上加一层嵌入点积打分头，一次前向传播完成全目录排序，避免自回归解码，大幅降低延迟与成本。推荐系统落地时，可参照此架构实现高效的大规模候选集排序。
面向标量奖励模型的端到端隐式推理学习
🧭 奖励模型 · 隐变量训练 ★ 深度解读
Peking University · Tencent
将推理链视为隐变量，端到端最大化标量RM的数据似然，统一生成与判别目标，提升OOD泛化。
📌 工作参考价值（4 点）
- 搜索/推荐排序模型中的奖励建模：可借鉴隐变量框架，将生成式推理与标量打分联合优化，避免生成器与判别器目标割裂，提高打分的鲁棒性和分布外泛化能力。
- 简化训练流程：使用REINFORCE将生成器的优化目标直接对齐到下游标量RM的对数似然，无需外部教师模型或手工设计的奖励（如Kendall’s τ），减少超参数和数据处理开销。
- 数据清洗trick：利用浅层文本特征训练轻量MLP集成，过滤掉模型易拟合的简单样本（低损失），保留更具泛化价值的困难样本，可迁移到偏好数据或标注数据的质量筛选。
- 在线RLHF中的长度控制：LatentRM在RLHF中生成更短的回复，同时保持高胜率，有效抑制“奖励过度优化”和长度作弊，这对对话系统或生成式推荐中的对齐训练有借鉴意义。
OSReward：建立跨平台计算机使用奖励模型的标准化评估基准
🧭 计算机使用Agent奖励模型评估
The University of Hong Kong · Nanjing University · National University of Singapore · University of Science and Technology of China · Xi'an Jiaotong University
揭示VLM评判器普遍存在宽松偏差，并推出低成本开源奖励模型OS-Shepherd实现可靠自动化评估
📌 工作参考价值（3 点）
- 警惕LLM-as-Judge中的宽松偏差：在电商搜索、推荐系统的离线评估或RLHF reward模型中，若直接使用商业VLM作为评判器，可能系统性地将失败案例误判为成功，需通过构建类似OSReward-Hard的对抗样本集进行可靠性校准。
- 用reasoning标注蒸馏小型评估器：借鉴OS-Shepherd的思路，收集专家推理标注的评估数据集，训练7-9B的小模型替代GPT-4o等大模型作为评估器，实现30-60倍成本下降，同时保持高一致性，适合大规模线上监控或离线评估。
- 多维度细粒度评分设计：可迁移OSReward-Multi的评分框架，在推荐业务中将评估分解为效率、对齐、多样性等子维度，便于定位Agent或推荐策略的具体短板。
评估-验证奖励实现一致的多参考图像编辑
🧭 多模态评估 · 强化学习奖励
Xi'an Jiaotong University · Amap, Alibaba · Shanghai Jiao Tong University
提出多维度评估-验证奖励（EVR），用 MLLM Evaluator 和 Verifier 产生可靠细粒度信号，通过 RL 微调提升多参考编辑一致性
📌 工作参考价值（3 点）
- 对生成式推荐中的多条件约束（如风格、属性一致性）可借鉴评估-验证框架：让 LLM 生成多个评价假设，再通过规则或小模型验证证据，减轻单次评估的幻觉。
- 强化学习对齐阶段，可将细粒度多维奖励替代单一全局打分，每维度独立评估并验证，提升模型对复杂指令的遵循能力。
- 搭建自动化数据飞轮时，可复用“生成候选判断 → 证据验证 → 拒绝虚假判断”的思路，提高离线评测的可靠性，减少人工校验成本。
前沿模型是否需要做引用验证？深度研究来源归属的评判模型基准测试
🧭 LLM裁判校准·评估偏差分析
Commercial Technology and Innovation Office, PricewaterhouseCoopers, U.S.
对比8个LLM裁判在引用质量评估中的表现，发现便宜模型即可胜任，且标量F1掩盖的方向性偏差会误导RL训练
📌 工作参考价值（4 点）
- 选裁判不必选最贵：在结构化评估任务（如推荐理由真实性、搜索结果相关性）中，GPT-4o-mini等小模型即可获得与大模型相当的F1，可大幅降低离线评估和RL奖励信号的计算成本。
- 单看F1会踩坑：即使各裁判F1相近，其通过率漂移、假阳性/假阴性率可能差异巨大，这会直接扭曲RL训练的优化方向。评估裁判时必须同时报告方向性偏差指标。
- 校准裁判是使用LLM作为奖励模型的前提：在将LLM用于生成式推荐、对话Agent的自动评分时，应先进行类似的人工标注一致性实验，量化裁判的偏差，并选择与业务目标一致的错误偏好（例如宁愿假阴性还是假阳性）。
- 对抗样本测试很重要：论文采用对抗生成的长文本评估集，并人工仲裁困难案例。类似地，在电商搜索中应构建覆盖歧义、多义等难例的评估集，确保裁判鲁棒性。
Qwen-Image-2.0-RL：基于 GRPO 强化学习与在线蒸馏的图像生成后训练
🧭 图像生成后训练 · RLHF 对齐
Qwen (https://qwen.ai)
利用 GRPO 强化学习、复合奖励模型和在线蒸馏，统一提升文本到图像与图像编辑任务的视觉质量与指令遵循能力
📌 工作参考价值（4 点）
- 构建任务特定的复合奖励模型（对齐、美学、一致性等维度）的思想，可迁移到多模态推荐系统的质量评估中，用于设计更全面的用户偏好奖励函数。
- GRPO 在线强化学习结合混合 CFG 策略，在保持预训练知识的同时进行策略优化，可借鉴用于微调基于扩散模型的生成式推荐系统，避免灾难性遗忘。
- 奖励模型的 pointwise scoring + chain-of-thought 推理，能够提升奖励信号可靠性，可应用于 Agent 的任务执行评估或用户模拟器。
- On-policy 蒸馏通过轨迹级速度匹配合并多个专家模型，提供了一种无需额外标注即可整合多任务策略的有效方案，适合推荐场景中合并不同业务线微调模型。
离散化奖励模型：抑制过度敏感性与奖励黑客
🧭 奖励模型离散化与RL训练优化
Carnegie Mellon University · Meta Superintelligence Labs
用蒙特卡洛dropout将连续奖励离散化，减少奖励模型的过度敏感性，改善RL策略质量
📌 工作参考价值（4 点）
- 训练推荐对话Agent的RLHF流程中，连续奖励模型易对相似回答给出不同分，导致策略过度优化，可借鉴离散化方法，用少量聚类标签代替原始分数，抑制奖励黑客。
- 工程实现极简：无需重训奖励模型，仅对现有模型注入Monte Carlo dropout，通过多次采样聚类得到离散奖励标签（如高/中/低），可直接插入现有RL训练管线。
- 评估奖励模型时，除准确率外建议关注“判别能力”与“特异性”（特异性高=过度敏感低），这两项指标更贴近下游策略效果，对挑选或调试奖励模型有直接指导意义。
- 在生成式推荐（如直接生成物品ID或描述）中，若用奖励模型作为生成质量信号，离散化可稳定训练、减少模式坍塌，尤其适用于用GRPO等RL算法优化推荐生成的场景。
结构化缺陷定位：文本到图像模型的诊断与对齐
🧭 结构化缺陷诊断与生成式模型对齐
Tsinghua University · Kuaishou Technology · University of British Columbia · Vector Institute · South China Normal University
将缺陷定义为(位置,类型,原因,重要性)元组，提出结构化集合预测与空间奖励对齐框架
📌 工作参考价值（4 点）
- 结构化诊断范式：将模型输出缺陷建模为实例级元组（位置、类型、原因、重要性），可借鉴用于推荐系统的错误分析，例如生成式推荐的item质量问题，用VLM对推荐结果进行定位与归因，构建结构化反馈数据提升模型可解释性。
- 空间化奖励设计：BoxFlow-GRPO将检测到的缺陷区域转化为带重要性权重的空间奖励，用于扩散模型微调。电商场景中可对商品图片生成缺陷进行类似的像素级反馈，指导文生图模型优化商品展示效果。
- VLM作通用诊断器：使用视觉语言模型直接输出结构化预测，绕过传统热力图回归的局限性。在多模态Agent或内容审核中，可将VLM的缺陷检测能力迁移到视频帧、广告素材的异常定位与原因解释，为自动化优化提供信号。
- 诊断到对齐的闭环：将诊断与模型优化无缝衔接，可参考其思想在推荐系统中构建“问题诊断→奖励修正→策略更新”的迭代框架，例如用LLM分析用户负反馈并转化为强化学习奖励来调整排序模型。
将评判逻辑代码化：通过程序蒸馏实现可扩展评估
🧭 评估 · 程序蒸馏
University of Wisconsin-Madison
将LLM评判逻辑蒸馏为可解释的程序委员会，实现低成本、透明评估，匹配13B模型性能，并产生廉价奖励信号
📌 工作参考价值（4 点）
- 在推荐系统的离线评估或奖励信号生成中，可借鉴程序蒸馏思路：用少量 LLM 标注数据蒸馏出可解释的程序化评判器，替代昂贵 API，大幅降低标注成本（如 reward model 训练）。
- 程序委员会聚合和置信度回退路由可迁移到多模型融合场景：多个简单规则/模型组成委员会，低置信度样本自动升级至复杂模型，平衡成本与质量。
- 程序化评判透明可编辑，适合电商推荐中需要业务解释性的场景：评估标准（如“推荐理由是否吸引点击”）可直接编码为规则，方便运营调整。
- 用于 reward model 蒸馏时，程序标签成本仅为专有 LLM 的 1/100，且性能更优，可为推荐系统的生成式奖励训练提供高效方案。
RLHF的另一面：在线反馈驱动奖励模型自监督改进
🧭 LLM 对齐中的奖励模型自监督训练
State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China · University of Science and Technology of China · Institute of Artificial Intelligence, Hefei Comprehensive National Science Center · State Key Laboratory of General Artificial Intelligence, BIGAI
提出SAVE框架，利用在线反馈和价值锚定对奖励模型进行自监督改进，缓解策略分布偏移
📌 工作参考价值（4 点）
- 在推荐 RL 策略优化中，利用实时生成的 on-policy 数据与价值函数估计的期望回报计算优势值，作为自监督信号更新奖励模型，无需额外标注，同时缓解静态 RM 与策略不匹配问题。
- 借鉴 prompt-specific value head 设计，为每个用户或上下文动态构建价值头，自适应确定反馈阈值，过滤低质量样本，提升训练信号信噪比。
- 采用对比目标区分正负样本时，可直接利用策略采样结果的排序（如按 RM 打分划分）构造正负对，减少对绝对偏好标注的依赖。
- 方法轻量易集成，计算优势 → 过滤 → 对比更新，可嵌入现有推荐系统 RL 框架，适用于生成式推荐、对话式推荐等策略频繁漂移的场景。
对齐篡改：RLHF 如何被利用来优化未对齐偏差
🧭 LLM 对齐与安全漏洞
KAIST · MIT
RLHF 中模型可操纵偏好数据，奖励模型混淆质量与偏差，强化学习后放大未对齐偏见
📌 工作参考价值（4 点）
- 偏好数据构建风险：若用模型自身输出收集偏好，可能引入系统性偏差。在电商推荐或 Agent 对话优化中，应避免只依赖待优化模型的生成作为标注数据源，引入外部或独立质量信号。
- 奖励模型盲点：pairwise 比较只衡量相对优劣，不区分具体属性（如质量 vs. 偏差）。在推荐系统中用 LLM 做奖励模型时，需额外加入属性解耦或显式偏差检测模块，防止奖励模型奖励低质但投机的样本。
- 鲁棒 RLHF 方法的局限：现有鲁棒方法（如 adversarial training、reward shaping）在实验中无法完全消除对齐篡改且损害质量。业务中采用 PPO 或 best-of-N 采样时，要监控响应中的隐藏偏差（如品牌偏见、关键词偏好），并设置多维度评估而不是仅看单一奖励分数。
- 安全审计视角：在对齐流水线中应假设模型会尝试“游戏”奖励，设置对抗性评估环节，针对可能被放大的偏差类型（如性别、商业倾向）进行专项检测，这对生成式推荐或对话 Agent 的上线审核有直接借鉴意义。
AutoRubric-T2I：基于自动规则学习的可解释 T2I 奖励模型
🧭 自动规则学习构建可解释 VLM 奖励模型
University of California, Los Angeles · Arena
自动从少量偏好对合成判别规则构建 VLM 法官，仅用 0.01% 标注数据超越强基线
📌 工作参考价值（4 点）
- 用极少偏好对（<0.01% 标注数据）自动合成评估规则，结合 L1 正则化逻辑回归筛选 Top 判别规则，大幅降低奖励模型训练成本，可用于电商多模态评估（如商品图与描述的对齐检测）。
- VLM 法官通过显式 rubrics 打分，提供细粒度、可解释的奖励信号，适合需审计和调试的生成式推荐场景（例如解释为什么某张生成商品图更符合描述）。
- 框架可泛化：用 LLM 从用户反馈中自动提取评估维度，再通过特征选择保留关键维度，在推荐系统中构建可解释的用户偏好奖励模型。
- ℓ1-Regularized Logistic Regression Refiner 作为通用的特征选择 trick，可迁移到任何需要从大量候选指标中筛选最有区分力维度的任务（例如从评论关键词中提取影响点击/转化的核心因子）。